Phần lớn sự tồn tại của chức vị Phó Tổng thống được người ta nhận thức không hơn vị trí một cái bóng. John Adams, Phó Tổng thống Hoa Kỳ đầu tiên, diễn tả nó như "chức vị vô nghĩa nhất mà sáng kiến của con người đã tạo ra được hay óc tưởng tượng của con người nhận thức được". Thomas R. Marshall, Phó Tổng thống Hoa Kỳ thứ 28 than thở rằng: "Xưa kia có hai anh em. Một chạy xa ra biển; còn người kia được bầu làm Phó Tổng thống Hoa Kỳ. Và rồi người ta không còn nghe thấy gì về hai anh em này nữa."[18] Khi Đảng Whig tìm một ứng cử viên Phó Tổng thống cho liên danh của Zachary Taylor, họ tìm đến Daniel Webster thì ông nói về chuyện này như sau: "Tôi không đề nghị được chôn cho đến khi tôi thật sự chết và nằm trong quan tài."[19] Đây là lần thứ hai Webster từ chối ra ứng cử vào chức vụ phó tổng thống; lần đầu tiên là lúc William Henry Harrison mời ông cùng ra tranh cử. Mỉa mai thay, cả hai vị Tổng thống Hoa Kỳ mời Webster ra làm ứng viên phó tổng thống đều chết khi đang tại chức, điều đó có nghĩa là Webster có thể đã trở thành Tổng thống Hoa Kỳ nếu ông chấp thuận hai lần đó. Nhưng vì Tổng thống hiếm khi chết lúc tại chức nên bậc thang đá tự nhiên để đi lên chức vị Tổng thống Hoa Kỳ được xem là chức vị Bộ trưởng Ngoại giao Hoa Kỳ.

Harry Truman giữ chức Phó Tổng thống chỉ mới 3 tháng trước khi trở thành Tổng thống. Ông chưa từng được thông báo về các chính sách thời chiến và hậu chiến của Tổng thống Franklin Roosevelt trong lúc làm Phó Tổng thống.

Đã từ lâu trước đây, Phó Tổng thống được giao rất ít trách nhiệm. Sau khi John Adams dự một cuộc họp nội các của Tổng thống vào năm 1791 thì không có một Phó Tổng thống nào làm như vậy cho đến khi Thomas Marshall tạm thay quyền Tổng thống Woodrow Wilson trong khi ông đến châu Âu vào năm 1918 và năm 1919. Người kế nhiệm Marshall là Calvin Coolidge được Tổng thống Warren G. Harding mời dự các phiên họp. Vị Phó Tổng thống kế tiếp là Charles G. Dawes đã không tìm cách dự các cuộc họp nội các dưới thời Tổng thống Coolidge và tuyên bố rằng "tiền lệ có lẽ chứng minh nó gây tai hại cho quốc gia."[20] Phó Tổng thống Charles Curtis cũng bị Tổng thống Herbert Hoover ngăn cản không cho dự.

Garret Hobart, Phó Tổng thống đầu tiên dưới thời Tổng thống William McKinley, là một trong số rất hiếm Phó Tổng thống vào thời đó đóng một vai trò quan trọng trong bộ máy chính phủ. Là một cố vấn và thân cận của Tổng thống, Hobart được người ta gọi là Phụ tá Tổng thống.[21]

Năm 1933, Franklin D. Roosevelt nâng vị thế chức vị phó tổng thống bằng cách phục hồi việc mời Phó Tổng thống đến dự các buổi họp nội các và từ đó các Tổng thống Hoa Kỳ đều vẫn giữ nguyên tắc này cho đến ngày nay. Phó Tổng thống đầu tiên của Roosevelt là John Nance Garner ly khai với ông vào đầu nhiệm kỳ hai về vấn đế thêm số thẩm phán tại Tối cao Pháp viện Hoa Kỳ và trở thành kẻ thù chính trị hàng đầu chống Roosevelt. Người kế nhiệm Garner là Henry Wallace được giao nhiều trách nhiệm lớn trong suốt chiến tranh nhưng ông càng ngày càng thiên tả hơn Đảng Dân chủ và chính phủ của Roosevelt và vì vậy ông bị thu hồi quyền lực thật sự. Roosevelt không cho vị Phó Tổng thống cuối cùng của ông là Harry Truman biết gì về tất cả các vấn đề thời chiến và hậu chiến, thí dụ như Dự án Manhattan chế tạo bom nguyên tử, khiến cho Truman nhận xét một cách khó chịu rằng công việc của Phó Tổng thống là "đi dự tiệc cưới và đám tang"[22]. Sau khi Roosevelt qua đời và Truman chấp chánh chức tổng thống, nhu cầu giữ cho Phó Tổng thống biết tình hình về các vấn đề có liên quan đến an ninh quốc gia trở nên rõ ràng vì thế Quốc hội Hoa Kỳ biến Phó Tổng thống Hoa Kỳ thành một trong bốn thành viên theo luật định của Hội đồng An ninh Quốc gia Hoa Kỳ vào năm 1949.

Richard Nixon tái tạo mới chức vị Phó Tổng thống. Ông đã gây sự chú ý của giới truyền thông và Đảng Cộng hòa khi Tổng thống Dwight Eisenhower ra lệnh cho ông chủ tọa các cuộc họp nội các khi Eisenhower vắng mặt. Nixon cũng là Phó Tổng thống Hoa Kỳ đầu tiên tiếp quản tạm thời ngành hành pháp sau khi Eisenhower bị lên cơn đau tim vào ngày 24 tháng 9 năm 1955, chứng đau ruột vào tháng 6 năm 1956, và một cơn tai biến mạch máu não vào tháng 11 năm 1957. Tổng thống Jimmy Carter là vị tổng thống đầu tiên chính thức giao cho Phó Tổng thống của mình là Walter Mondale một văn phòng nằm trong cánh tây Tòa Bạch Ốc.